Protect sensitive data in RAG applications with Amazon Bedrock
在这篇文章中,我们探讨了使用Amazon Bedrock在抹布应用中确保敏感数据的两种方法。第一种方法着重于在摄入亚马逊基石知识库之前识别和编辑敏感数据,第二种方法显示了一种细粒度的RBAC模式,用于管理检索过程中访问敏感信息的访问。这些解决方案仅代表了在生成AI应用中确保敏感数据的众多方法中的两种可能的方法。
Supercharge your LLM performance with Amazon SageMaker Large Model Inference container v15
今天,我们很高兴地宣布,由VLLM 0.8.4驱动的Amazon Sagemaker大型推理(LMI)容器V15的推出,并支持VLLM V1发动机。该版本引入了显着的性能提高,扩展的模型兼容性与多模态(即能够理解和分析文本到文本,图像到文本和文本映射数据),并与VLLM提供内置的集成,以帮助您无人接缝和最高绩效的大型性能(LLMS)具有最高的性能。
Accuracy evaluation framework for Amazon Q Business – Part 2
在本系列的第一篇文章中,我们引入了Amazon Q Business的全面评估框架,Amazon Q Business是一个完全管理的检索增强发电(RAG)解决方案,该解决方案使用了您公司的专有数据,而没有管理大型语言模型(LLMS)的复杂性。第一篇文章着重于选择适当的用例,准备数据并实施指标[…]
Use Amazon Bedrock Intelligent Prompt Routing for cost and latency benefits
今天,我们很高兴地宣布亚马逊基岩智能及时路由的一般可用性。在这篇博客文章中,我们详细介绍了内部测试的各种亮点,如何开始,并指出一些警告和最佳实践。我们鼓励您将Amazon Bedrock智能及时路由纳入您的新的和现有的生成AI应用程序中。
在这篇文章中,我们探讨了Infosys如何开发Infosys事件AI来解锁事件和会议产生的见解。通过其功能套件(包括实时转录,智能摘要和交互式聊天助手)Infosys Event AI使活动知识可访问,并在活动期间和活动结束后为与会者提供了沉浸式的参与解决方案。
Amazon Bedrock Prompt Optimization Drives LLM Applications Innovation for Yuewen Group
今天,我们很高兴地宣布在亚马逊基岩上迅速优化。使用此功能,您现在可以使用单个API调用或单击Amazon Bedrock控制台上的按钮来优化几个用例的提示。在这篇博客文章中,我们讨论了如何提示优化改善Yuewen Group中智能文本处理任务的大语言模型(LLMS)的性能。
Build a location-aware agent using Amazon Bedrock Agents and Foursquare APIs
在这篇文章中,我们将Amazon Bedrock代理商和FourSquare API结合在一起,以演示如何使用位置感知的代理为您的用户带来个性化的响应。
Build an automated generative AI solution evaluation pipeline with Amazon Nova
在这篇文章中,我们探讨了在生成AI应用程序中评估LLM的重要性,从而强调了幻觉和偏见等问题所带来的挑战。我们使用AWS服务引入了全面的解决方案来自动化评估过程,从而可以持续监视和评估LLM性能。通过使用诸如FMEVAL库,Ragas,LLMeter和Step功能之类的工具,该解决方案提供了灵活性和可扩展性,可以满足LLM消费者不断发展的需求。
在这篇文章中,我们使用亚马逊基岩的多代理功能来展示一种强大而创新的AWS成本管理方法。通过使用Amazon Nova FMS的高级功能,我们开发了一种解决方案,该解决方案展示了AI驱动的代理如何彻底改变组织分析,优化和管理其AWS成本的方式。
Stream ingest data from Kafka to Amazon Bedrock Knowledge Bases using custom connectors
在这篇文章中,我们使用Amazon Managed Streaming为Apache Kafka(Amazon MSK)构建的自定义连接器和主题实现了一个带有亚马逊基岩知识库的RAG架构,该架构可能有兴趣了解股票价格趋势。
Add Zoom as a data accessor to your Amazon Q index
这篇文章演示了缩放用户如何在其缩放界面中直接访问其Amazon Q Business Enterprise数据,从而减轻了在维护企业安全边界的同时在应用程序之间切换的需求。现在,组织可以将Zoom配置为Amazon Q业务中的数据登录器,从而在其Amazon Q Index和Zoom AI Companion之间无缝集成。这种集成使用户可以直接在Zoom平台内以受控方式访问其企业知识。
The future of quality assurance: Shift-left testing with QyrusAI and Amazon Bedrock
在这篇文章中,我们探讨了Qyrusai和Amazon Bedrock如何彻底改变左翼测试,从而使团队能够更快地提供更好的软件。亚马逊Bedrock是一项完全管理的服务,允许企业使用领先的AI提供商的基础模型(FMS)构建和扩展生成AI应用程序。它可以使其与AWS服务无缝集成,在不管理基础架构的情况下提供自定义,安全性和可扩展性。
Automate video insights for contextual advertising using Amazon Bedrock Data Automation
亚马逊基岩数据自动化(BDA)是由FMS在亚马逊基岩中提供动力的新型托管功能。 BDA从非结构化内容(包括文档,图像,视频和音频)提取结构化输出,同时减轻了对复杂自定义工作流程的需求。在这篇文章中,我们演示了BDA如何自动提取丰富的视频见解,例如章节和音频段,检测场景中的文本,并分类交互式广告局(IAB)分类学,然后使用这些见解来构建非线性广告解决方案,以增强上下文广告的有效性。
How Salesforce achieves high-performance model deployment with Amazon SageMaker AI
这篇文章是Salesforce和AWS之间的共同合作,并且在Salesforce Engineering Blog和AWS机器学习博客上都在交叉发布。 Salesforce AI模型服务团队正在努力突破自然语言处理的界限和企业应用程序的AI功能。他们的关键重点领域包括优化大型[…]
Automate Amazon EKS troubleshooting using an Amazon Bedrock agentic workflow
在这篇文章中,我们演示了如何编排多个亚马逊基岩代理商来创建复杂的亚马逊EKS故障排除系统。通过启用专业代理商之间的合作(来自K8SGPT的见解并通过ARGOCD框架执行行动),您可以建立一个全面的自动化,以最少的人为干预来识别,分析和解决集群问题。
Host concurrent LLMs with LoRAX
在这篇文章中,我们探讨了如何使用低排名适应性(LORA)有效地解决这些挑战。具体而言,我们讨论了使用Lora交换(Lorax)(Lorax)和Amazon Elastic Compute Cloud(Amazon EC2)GPU实例的讨论,允许组织有效地管理和服务不断增长的精细模型,优化成本,优化成本,并为客户提供无缝绩效。
Build a computer vision-based asset inventory application with low or no training
在这篇文章中,我们提出了一种使用生成AI和大型语言模型(LLM)的解决方案,以减轻构建计算机视觉应用程序所需的耗时和劳动密集型的任务,使您能够立即开始拍摄资产标签的照片并提取必要的信息,以使用AWS服务